Un agente de inteligencia artificial es básicamente un sistema que tiene la capacidad de tomar decisiones y ejecutar acciones de forma autónoma, sin que una persona tenga que estar diciéndole cada paso.

El ejemplo más cotidiano es un agente de viajes. Imagina que le dices: «quiero irme a Lisboa el puente de mayo con un presupuesto de 500 euros». El agente no te da una lista de opciones para que tú busques, sino que él solo busca los vuelos, compara hoteles, revisa disponibilidad y te presenta la mejor combinación lista para confirmar. Tú solo tienes que decir sí o no. Incluso puede llegar a ejecutar la reserva directamente.

Eso mismo aplicado al desarrollo de software es lo que hacen herramientas como Claude Code o Codex. No se limitan a sugerirte código, sino que pueden analizar tu repositorio, detectar un problema, proponer una solución y aplicarla. El desarrollador sigue teniendo la última palabra, pero el agente hace el trabajo pesado.

Y aquí está la transformación real en cómo interactuamos con los sistemas y los datos: el rol humano cambia. Ya no somos los que ejecutamos, somos los que supervisan, diseñan y toman las decisiones importantes. El trabajador pasa de ir línea a línea a centrarse en orquestar, garantizar la calidad o explorar nuevas soluciones.

¿Cómo aplica la IA agéntica en ciberseguridad?

La IA agéntica en ciberseguridad es un enfoque basado en sistemas que pueden tomar decisiones, ejecutar acciones, coordinar herramientas o perseguir objetivos de forma autónoma. Un agente puede ser capaz de recibir una alerta y contrastarla con ataques conocidos, correlar eventos, evaluar el riesgo y proponer la ejecución de seguridad. A diferencia de la inteligencia artificial tradicional que la utilizamos para predecir eventos, estos agentes toman decisiones y ejecutan acciones para proteger servicios, infraestructuras y procesos empresariales. Este modelo está transformando la forma en la que las organizaciones gestionan la seguridad, reduciendo los tiempos de respuesta y permitiendo operar con eficacia en entornos cada vez más complejos y con mayores volúmenes de información.

Estamos viviendo un momento apasionante en innovación de ciberseguridad porque es una oportunidad para revisar procedimientos y rediseñar sistemas de forma que sean más eficientes.

Cómo está cambiando la inteligencia artificial agéntica la forma en la que las empresas acceden, gestionan y utilizan la información en tiempo real

Lo más importante que está pasando no es que las empresas estén añadiendo IA encima de sus sistemas actuales, es que están replanteándose desde cero cómo funcionan esos sistemas, porque las reglas del juego han cambiado.

Antes diseñabas un proceso pensando en que una persona iba a ejecutarlo. Ahora tienes que diseñarlo pensando en que un agente va a interactuar con él. Y eso cambia todo: cómo estructuras los datos, cómo los almacenas, cómo fluye la información.

Un agente puede procesar información en tiempo real, detectar patrones, tomar decisiones y actuar, pero solo si tiene debajo una infraestructura bien construida.

Las empresas que lo están entendiendo no están preguntando '¿cómo meto IA en lo que ya tengo?' sino '¿cómo rediseño lo que tengo para que la IA pueda sacarle el máximo partido?'

Riesgos de seguridad de los agentes de IA: exposición de datos en uso y nuevas amenazas

Este es precisamente uno de los frenos más grandes para la adopción de agentes en las empresas, y con razón.

Estas nuevas herramientas suponen nuevos puntos de ataque a nivel de seguridad. Si nos centramos en la exposición de datos en uso, que es lo que más preocupa a las empresas, el riesgo principal es la fuga de información. Y tiene mucho sentido, porque para sacarle el máximo partido a un agente muchas veces tienes que darle acceso a credenciales, a sistemas internos, a datos sensibles.

A esto se suman técnicas más sofisticadas como el prompt injection. Imagina que alguien te manda un adjunto por correo, tu agente lo procesa, y dentro de ese documento hay texto invisible, en blanco, que le instruye a enviar todos tus correos a una dirección externa. El agente lo ejecuta sin que nadie lo detecte.

Por eso es crítico testar muy bien qué herramientas se adoptan, asegurarse de que tienen los guardarraíles adecuados, y si expones algo a clientes, garantizar que no puede haber una exfiltración de datos por este tipo de técnicas. Los riesgos existen, son reales, y hay que protegerse.

Por qué los datos en uso se han convertido en el mayor reto de ciberseguridad con IA

Cuando hablamos de proteger datos, hay tres estados en su ciclo de vida: en reposo, en tránsito y en uso.

Los dos primeros están bien resueltos. Los datos almacenados se cifran. Los datos que viajan por la red se protegen con HTTPS. Pero el tercer estado, cuando los datos están siendo procesados en memoria, ha recibido históricamente menos atención. Y en muchos casos están en crudo.

Esto no es nuevo. Antes ya se podía atacar ese estado, pero el atacante pescaba a ciegas: no sabías qué tipo de información ibas a encontrar en memoria en ese momento. Podía ser cualquier cosa o nada útil.

El contexto de la IA lo cambia. Los agentes manejan constantemente información muy valiosa: credenciales, datos de clientes, documentos confidenciales. La probabilidad de encontrar algo crítico en memoria es mucho mayor. El reto no es nuevo, pero se ha vuelto mucho más relevante.

Por eso el ciclo de vida completo del dato, con los tres estados protegidos, es ahora más importante que nunca.

Diferencias entre la seguridad tradicional y los nuevos riesgos de la IA agéntica

Los modelos tradicionales de seguridad estaban diseñados pensando en dos estados. Los datos almacenados en bases de datos, que se cifran, de forma que, aunque alguien consiga acceder al servidor y robarla, sin la clave de cifrado son inútiles. Y los datos viajando por la red, protegidos con HTTPS, muy difíciles de interceptar y descifrar.

El tercer estado, los datos en uso en memoria RAM, ya era un vector de ataque conocido. El caso más famoso fue Heartbleed en 2014, una vulnerabilidad que permitía leer trozos de memoria RAM de servidores. Pero el problema para el atacante era que pescaba a ciegas: no sabías qué ibas a encontrar ahí, podía ser cualquier cosa o nada útil.

Los agentes de IA cambian esto completamente. Ahora ya no pescas a ciegas. Sabes que un agente está procesando de forma continua credenciales, datos de clientes y documentos confidenciales. La RAM siempre tiene algo valioso. El ataque se vuelve predecible y por tanto mucho más atractivo.

Los modelos tradicionales de seguridad no estaban diseñados para un escenario donde algo está procesando información sensible de forma constante e ininterrumpida. Ese es el nuevo riesgo.

Cómo proteger datos sensibles al usar agentes de inteligencia artificial en la empresa

Lo primero y más importante, antes que cualquier solución técnica, es sentido común: asegurarte de que las herramientas y conectores (MCPs) que usas son verificados, conocidos y de confianza. No introducir credenciales ni datos sensibles en cualquier solución que encuentres es el primer filtro y el más importante.

Por ejemplo puedes crearte un servidor MCPs de forma que controlas qué datos fluyen, hacia dónde, con qué permisos y qué queda registrado.

A partir de ahí, para las empresas que quieren ir más allá y proteger los datos incluso mientras se están procesando, existe una aproximación más sofisticada llamada Confidential Computing, disponible ya en todos los grandes clouds como AWS, Azure o Google Cloud.

La base de esto son los TEE, Trusted Execution Environments, que son entornos de ejecución aislados a nivel de hardware, directamente en el procesador. Tienen tres propiedades clave:

La primera es el aislamiento: lo que ocurre dentro de un TEE no puede ser accedido desde fuera, ni por el sistema operativo, ni por el hipervisor del cloud, ni siquiera por el propio proveedor cloud.

La segunda es que los datos se procesan cifrados incluso en memoria RAM, que es exactamente el vector de ataque del que hablábamos antes.

Y la tercera, que es la más potente y menos conocida, es la atestación. Antes de enviarle datos sensibles a un entorno, puedes verificar criptográficamente que ese entorno no ha sido manipulado. Es decir, puedes confiar en él antes de usarlo.

En resumen: primero verificar las herramientas que usas, y si necesitas una capa adicional de protección, Confidential Computing es la respuesta.

Gobernanza de la IA: cómo controlar agentes autónomos y proteger los datos corporativos

Antes te preocupabas por quién accede a qué datos, cómo se almacenan y cómo se protegen. Eso sigue siendo necesario, pero con los agentes de IA aparece una capa nueva de complejidad que ha dado lugar a un concepto más amplio: la gobernanza de la IA.

¿Por qué? Porque ahora no solo tienes que controlar los datos, tienes que controlar qué hacen los agentes con esos datos, de forma autónoma, sobre múltiples sistemas a la vez, tomando decisiones sin que haya una persona supervisando cada paso.

Las preguntas que tienen en vilo a todas las empresas ahora mismo son: ¿Qué herramientas de IA pueden usar nuestros equipos y cuáles no? ¿A qué datos puede acceder un agente y a cuáles no? ¿Quién es responsable si un agente toma una decisión incorrecta? ¿Cómo auditamos lo que han hecho los agentes?

Y a esto se suma el contexto regulatorio, con el AI Act europeo empujando a las empresas a tener respuestas concretas a estas preguntas.

En nuestro caso, tenemos ya un equipo dedicado específicamente a la gobernanza de la IA, precisamente porque esto se ha convertido en una de las prioridades estratégicas. No es algo que se pueda improvisar.

Cómo garantizar un uso seguro y responsable de la IA en grandes organizaciones como Telefónica

Desde mi experiencia en un equipo de desarrollo e innovación, la clave está en no tener que reinventar la rueda cada vez que adoptas una herramienta de IA.

Esto no puede recaer en cada equipo de forma individual. Necesita una estructura centralizada que lo gobierne: un equipo de gobernanza de IA que decida qué herramientas están aprobadas, qué conectores se pueden habilitar, a qué sistemas y datos puede acceder un agente y bajo qué condiciones.

Lo que marca la diferencia es operar dentro de ese marco: herramientas verificadas, criterios claros, sin tener que construir esas garantías desde cero cada vez. Eso te permite moverte rápido sin asumir riesgos innecesarios.

El reto para cualquier organización grande es que ese marco exista, esté actualizado y sea ágil. Si es demasiado restrictivo, los equipos buscan usarlo pudiendo comprometer datos sensibles de la empresa.

En Telefónica, el equipo que lleva toda esta parte operativa es el equipo de AI Governance de CDO habilitando desligues de IA más rápidos y seguros y reforzando la confianza de clientes. Todo ello se asienta sobre una política corporativa consolidada que según afirma el propio equipo está evolucionando a AI Governance por diseño para que escale de forma efectiva, automatizada y continua al mismo ritmo que la adopción de la IA.

Equilibrio entre automatización y seguridad en la adopción de IA agéntica

El error más común que cometen las empresas es pensar que prohibir las herramientas de IA es la solución más segura. Y es exactamente al revés.

Si prohíbes las herramientas, lo que consigues es que los empleados las usen igualmente, pero con sus cuentas personales, fuera de cualquier control corporativo. Y ahí sí que tienes un problema real de seguridad, porque esa información ya está completamente fuera de tu perímetro.

El equilibrio correcto pasa por tres cosas. Primero, facilitar herramientas verificadas y seguras a los equipos, para que no tengan que buscar alternativas por su cuenta. Segundo, concienciar y divulgar, que los empleados entiendan los riesgos, qué pueden compartir y qué no, cómo usar estas herramientas de forma responsable.

Y tercero, cuando sea necesario, desarrollar tus propios conectores, o MCPs (Model Context Protocol), en lugar de usar los que ofrecen los proveedores externos. Por ejemplo, si quieres que un agente interactúe con tu herramienta de gestión de proyectos como Jira, puedes construir tu propio MCP que defina exactamente qué puede hacer el agente, a qué datos accede y qué queda registrado, en lugar de depender del conector estándar del proveedor, donde no tienes control total sobre qué hace con tu información.

La clave es que la seguridad no puede ser un freno a la adopción, tiene que ser el marco dentro del cual se produce esa adopción. Si lo haces bien, consigues los dos objetivos: equipos más productivos y datos protegidos.

Tendencias clave en ciberseguridad e IA agéntica: el futuro de la protección de datos

Las tendencias que van a marcar el futuro van en dos direcciones claras.

Por un lado, la gobernanza de la IA va a seguir madurando y convirtiéndose en una pieza estratégica de todas las organizaciones. Cada vez más regulación, más exigencia de trazabilidad y más necesidad de tener marcos claros sobre cómo operan los agentes.

Pero el reto más grande viene por el lado de la ciberseguridad, y es un reto existencial. Hasta ahora el juego era relativamente asimétrico: los atacantes tenían que encontrar una vulnerabilidad, y los defensores tenían que proteger todo. Eso ya era difícil. Ahora la IA ha democratizado el ataque.

Lo que antes requería conocimientos técnicos muy avanzados para encontrar una vulnerabilidad, ahora está al alcance de cualquiera. Puedes lanzar decenas de agentes en paralelo buscando brechas de seguridad, automatizar ataques sofisticados, generar campañas de phishing personalizadas a escala masiva. La barrera de entrada para ser un atacante ha caído drásticamente, y eso significa que las amenazas van a crecer de forma exponencial.

El sector de la ciberseguridad está en un momento de adaptación crítica. Ya no se trata solo de defenderse de las amenazas conocidas, sino de anticiparse a un volumen y sofisticación de ataques que no tiene precedentes.

Los que se adapten rápido tendrán ventaja. Los que no, estarán muy expuestos.

La IA agéntica es una revolución que ha venido para quedarse en la que Telefónica está aprovechando para reforzar su ambición de ser la mejor vía de acceso de la tecnología de las personas. Desde innovación de ciberseguridad contribuimos a rediseñar cómo se protegen los  datos, las infraestructuras y los servicios. Nuestro objetivo es fortalecer la confianza de clientes y empresas, impulsando un ecosistema digital, seguro, robusto y centrado en las personas.

En este contexto, la evolución de los agentes de inteligencia artificial y su aplicación en ciberseguridad refuerza directamente la propuesta de valor de Telefónica: asumir el reto de convertirse en la mejor vía de acceso de los ciudadanos a las tecnologías digitales, apoyándose en una actualización integral que le permita liderar el sector de las telecomunicaciones en el nuevo mercado global. Esto implica contar con la mejor red para acceder a la tecnología más innovadora, ofrecer la mejor y más completa gama de servicios y garantizar que la calidad de estos se mida por la confianza de los clientes. Así, la adopción de IA agéntica, junto con una gobernanza sólida y capacidades avanzadas de protección de datos, se convierte en un elemento clave para construir un ecosistema digital seguro, competitivo y centrado en las personas.

Fuente: Telefónica

Además lo invitamos a visualizar y compartir estos títulos: